Towards Vision-Free CIR: Attribute-Augmented Scoring and LLM-Based Reranking for Zero-Shot Composed Image Retrieval
面向视觉无关的组合图像检索:属性增强评分与LLM重排序
🧭 视觉无关组合图像检索·属性增强与LLM重排
The University of Tokyo · Kioxia Corporation
通过属性增强混合评分和LLM重排序,实现视觉无关的零样本组合图像检索,CIRR R@1 44.04%(+8.79%)
📌 工作参考价值(4 点)
- 视觉无关检索范式:将数据库图像离线预生成文本描述(如商品标题/属性),用文本检索替代视觉编码器,大幅降低计算和存储成本,适合电商海量商品库的粗召回。
- 属性增强评分:显式提取并匹配查询与候选图像的属性(颜色、类别、材质等),弥补纯文本描述的视觉细节丢失,可嵌入商品搜索排序的relevance score计算中。
- LLM重排序:对粗排Top-K结果,利用LLM验证“修改文本”是否被满足(如“改成黑色”),提升语义一致性;可迁移至电商对话式搜索、多模态交互中的精排阶段。
- 零样本能力:整个流程不依赖CIR标注数据,开箱即用,适合冷启动或快速迭代场景;可快速验证“参考图+修改文本”这种查询形式在导购、搭配推荐中的效果。